On estimating the memory for finitarily Markovian processes

Finitarily Markovian processes are those processes {Xn}n=−∞ for which there is a finite K (K = K({Xn} 0 n=−∞) such that the conditional distribution of X1 given the entire past is equal to the conditional distribution of X1 given only {Xn} 0 n=1−K . The least such value of K is called the memory length. We give a rather complete analysis of the problems of universally estimating the least such value of K, both in the backward sense that we have just described and in the forward sense, where one observes successive values of {Xn} for n ≥ 0 and asks for the least value K such that the conditional distribution of Xn+1 given {Xi} n i=n−K+1 is the same as the conditional distribution of Xn+1 given {Xi} n i=−∞. We allow for finite or countably infinite alphabet size. Les processus Markoviens finitaires sont des processus {Xn} ∞ n=−∞ pour lesquels il existe un entier K fini (K = K({Xn} 0 n=−∞) tel que la distribution conditionnelle de X1 etant donné tout le passé soit égale à la distribution conditionnelle de X1 etant donné seulement {Xn} 0 n=1−K . La plus petite valeur d’un tel K est appelée la longueur de la mémoire. Nous donnons une analyse complète du problème de l’estimation de la plus petite de ces valeurs de K, aussi bien en remontant dans le passé qu’en allant vers le futur, c’est à dire quand on observe les valeurs successives de {Xn} pour n ≥ 0 et qu’on recherche la plus petite valeur de K telle que la distribution conditionnelle de Xn+1 etant donné {Xi} n i=n−K+1 soit la même que la distribution conditionnelle de Xn+1 etant donné {Xi} n i=−∞. La taille des alphabets peut etre choisie finie ou infinie.